AIが「やらせ」に使われるリスク
第45回:IT後進国から脱却できるのか(5)
多田 芳昭
一部上場企業でセキュリティー事業に従事、システム開発子会社代表、データ運用工場長職、セキュリティー管理本部長職、関連製造系調達部門長職を歴任し、2020年にLogINラボを設立しコンサル事業活動中。領域はDX、セキュリティー管理、個人情報管理、危機管理、バックオフィス運用管理、資材・設備調達改革、人材育成など広範囲。バイアスを排除した情報分析、戦略策定支援、人材開発支援が強み。
2023/08/09
再考・日本の危機管理-いま何が課題か
多田 芳昭
一部上場企業でセキュリティー事業に従事、システム開発子会社代表、データ運用工場長職、セキュリティー管理本部長職、関連製造系調達部門長職を歴任し、2020年にLogINラボを設立しコンサル事業活動中。領域はDX、セキュリティー管理、個人情報管理、危機管理、バックオフィス運用管理、資材・設備調達改革、人材育成など広範囲。バイアスを排除した情報分析、戦略策定支援、人材開発支援が強み。
前回、AIと人間をハイブリッドする事例を紹介し、利活用の可能性について言及した。しかし、人間が関与するハイブリッドとなると、悪意を持てば都合のよい方向性の回答を出力することも可能だといえる。まさに諸刃の剣、その実態を見極めないと本当の意味での利活用は覚束ないだろう。
今回は、悪用とも思えるAI活用の事例を確認してみる。ただし、この種の事例は取材による裏取りは相当困難であり、真相は闇の中になりがちなため、筆者の類推によるところが大きいことをあらかじめお断りしておく。それでも事実関係をもとに、論理的整合性を重要視し、可能な限り可能性を広くみているつもりなので、ご容赦願いたい。
したがって、筆者が認識していない反証となる事実がもしあるならば、それはぜひご指摘いただきたい。そうすることで検証がさらに深くなり、AIを便利で安全な道具として効果的に利活用できると信じているからだ。
前置きが長くなったが、本題に戻り、筆者が考えるAIと語るには相応しくない事例、適切とは思えない事例をあげたい。その代表格がTVのワイドショーで語る、AIニュースの類である。
いくつかのワイドショーで、ニュースのトレンドを示す目的で、AIが客観的に選んだかのようにいくつかのバズワード、ネット検索情報のランキングなどを示している。しかし、そこに出力されている情報がすでに偏っていると言わざるを得ない。
直近でいうと、いわゆる文春砲が炸裂している「木原事件」だ。この関連ワードは、ランキングでほとんど表示されていない。最悪の場合、政治権力が警察権力に介入するという法治国家としての根底を揺るがす一大疑獄にも発展しかねない内容であるにもかかわらず、だ。
少し前にワイドショーで騒ぎ立てた「政治権力による報道への圧力」と比較しても、本質的に問題性は大きい。なぜなら、ドラマのように政治権力が警察権力に介入できて殺人事件をもみ消せるのならば、それは独裁であり、法よりも上位概念に政治権力が君臨する、なんでもやりたい放題となってしまうからだ。
しかし、報道への介入は騒ぎ立て、警察権力への介入はほとんど触れない。これがもし安倍元総理であったら、昭恵夫人の過去にまつわることだったら、メディアは大騒ぎしているのではないだろうかと想像してしまう。
いや、百歩譲って、触れないのは報道としての価値判断が働き、報道しない自由を発揮した結果だという説明も成立する。しかし、AIによるトレンド分析にそのような忖度が働くとは考えられない。報道しない自由があったとしても、トレンドや巷の関心、ニュース性があることは疑いようがないのだから。
再考・日本の危機管理-いま何が課題かの他の記事
おすすめ記事
情報セキュリティーは個人のリスク目線では通用しない
学生時代からパソコンを使いこなしてきた人が新入社員に多くいる昨今ですが、当然、個人と会社ではセキュリティーの重心が違います。また、人事異動で新たに着任した社員も、業務が変われば情報資産との関わり方が変わり、以前と同じ意識でのぞめばよいとは限りません。新年度にあたり、情報セキュリティーのルールは特に徹底したいところです。
2024/05/10
サイバーインシデント対応の基本知識と準備
本勉強会では、一般的な情報セキュリティインシデントとサイバーインシデントの違いや、その初動対応について事前に準備すべきことと合わせて、自社で手軽に訓練・演習を実施するためのポイントを解説します。2024年5月8日開催。
2024/05/09
炎上の原因はSNS上の振る舞いのみにあらず
新年度から仲間に加わった新入社員は「デジタルネイティブ」と呼ばれ、友人とSNS で交流するのがあたり前の世代です。が、学生時代と違い、社会人になれば取り巻く環境が変わり、自身の立場も変わる。うかつな投稿が「炎上」につながるケースは少なくありません。新人研修のテーマにSNSリスクを組み込むなどして教育を徹底したいところです。
2024/05/08
リスク対策.com編集長が斬る!【2024年5月7日配信アーカイブ】
【5月7日配信で取り上げた話題】今週の注目ニュースざっとタイトル振り返り/特集:令和5年度企業の事業継続及び防災に関する実態調査
2024/05/07
家庭の防災は企業BCPとつながっている
昨今は社員の自主防災力向上に努めている企業も多いでしょう。この時期は災害時のルール周知に余念がないと思いますが、ポイントとして提案したいのが、家庭の防災と企業BCP のつながりをしっかり伝えること。「家庭と会社は別」と考えがちですが、家庭の防災力を上げないと企業の事業継続力も上がりません。メッセージを出すよいタイミングです。
2024/05/02
※スパム投稿防止のためコメントは編集部の承認制となっておりますが、いただいたコメントは原則、すべて掲載いたします。
※個人情報は入力しないようご注意ください。
» パスワードをお忘れの方